Johann Sigismund Weiss fue el segundo hijo del laudista y tiorbista Johann Jacob Weiss y Maria Catharina Weiss; sus hermanos eran: el mayor Silvius Leopold y Juliana Margaretha. Su padre les enseñó a los tres hermanos a tocar el laúd desde pequeños.

Edición discográfica con una obra para guitarra de Johann Sigismund Weiss

Después de que Silvius Leopold pasara casi un mes en Düsseldorf en 1706, en la corte del elector Johann Wilhelm (Jan Wellem), la familia también se mudó al Rhin alrededor de 1708; Probablemente por mediación de Silvius Leopold, padre y hermano encontraron empleo en la orquesta de la corte del Palatinado Electoral en Düsseldorf.

Tras la muerte del elector Johann Wilhelm en 1716, su orquesta se disolvió inicialmente, pero su sucesor Karl Philipp reintegró a Johann SIgismund y a su padre, junto con otros músicos. A diferencia de su predecesor, Karl Philipp desdeñó Düsseldorf como residencia y en 1718 se instaló inicialmente en Heidelberg, hasta que finalmente fijó su residencia en Mannheim en 1720. En la orquesta de la corte, Johann Sigismund Weiss ocupó puestos prestigiosos, entre ellos el de vice concertino en 1723 y director de concierto en 1733. Paralelamente a esto último, también figuraba como concertino.

Aunque Johann Sigismund Weiss estuvo lejos de alcanzar el nivel y la eficacia de su hermano Silvius Leopold, considerado el mejor laudista de su tiempo y, en retrospectiva, el último gran laudista de reputación europea, sigue siendo uno de los precursores de ambos. La Escuela de Mannheim comenzó a desarrollarse seis años después de su temprana muerte a los 46 años de edad, al igual que la nueva orquesta de la corte de Mannheim, fundada en 1747 por el Conde Palatino Karl Theodor.